Puces IA : le prochain RGND de FuriosaAI fonctionnera en cluster | LeMagIT

LeMagIT - 28/05
L’accélérateur de la startup coréenne ne sait exécuter que des tâches d’inférence dans un serveur, mais il le fait à la vitesse des GPU Nvidia pour une consommation électrique bien moindre. Sa future version 3 pourra être utilisée en grappe de calcul dans un datacenter.

La startup coréenne FuriosaAI annonce passer un partenariat avec le fabricant de semiconducteurs Broadcom pour concevoir la troisième génération de sa puce RNGD qui accélère les tâches d’inférence. Ces tâches sont en l’occurrence l’IA générative et le RAG à partir de modèles déjà entraînés. L’apport de Broadcom concernera essentiellement la partie réseau de la puce.

Les accélérateurs RNGD – qu’il faut prononcer « Renegade »- n’étaient jusqu’ici utilisabl...
[Courte citation de 8% de l'article original]